Selepas beberapa hari melawat bapanya di Purworejo, Oerip kembali ke Meester Cornelis di mana beliau dihantar bertugas ke Batalion XII.[24] Walaupun dia adalah seorang lelaki yang paling kecil dalam unit dan satu-satunya asli,[25] beliau telah diletakkan dalam kedudukan kepimpinan.[24] Setahun setengah kemudian beliau dihantar ke Banjarmasin, Borneo.[2][24] Selepas tempoh rondaan dalam hutan di luar Puruk Cahu dan Muara Tewe, beliau telah dihantar ke Tanah Grogot, diikuti Balikpapan. Walaupun ditempatkan di sana Oerip telah dinaikkan pangkat ke Leftenan pertama tetapi menghadapi diskriminasi seperti yang asli dalam angkatan Belanda. Di Banjarmasin beliau yakin komander untuk membatalkan ketetapan melarang pegawai bukan Belanda daripada menyertai pasukan bola sepak, dan menjelang 1917 Oerip telah menerima status undang-undang yang sama dengan pegawai-pegawai Belanda.[2][26] Selepas Balikpapan Oerip telah lanjut dihantar ke kota Samarinda, Tarakan, dan akhirnya kabupaten Malinau.[26]

Di Malinau, Oerip membuat rondaan di sempadan Kerajaan Sarawak (kini sebahagian daripada Malaysia) yang dikuasai oleh Hindia Belanda dan Inggeris; ia juga bertugas untuk mencegah konflik dan pemburuan kepala suku Dayak.[27] Suatu hari, tujuh tahun selepas tiba di Borneo, Oerip baru saja selesai membuat rondaan dan mendapati rumahnya sudah dibakar. Atas cadangan seorang doktor, Oerip kembali ke Jawa, melalui Tarakan dan Surabaya, dan tiba di Ipoh. Di Ipoh, Oerip merehatkan diri selama beberapa bulan.[28]

Sepenuhnya pulih, pada tahun 1923 Oerip ditempatkan di kampung halamannya, Purworejo. Pada September 1925 Oerip telah dipindahkan ke Magelang untuk berkhidmat dalam Marechaussee te Voet (Foot Marshalry), gendarmerie.[29] Pada mulanya dikenali untuk mengelakkan wanita dan di bawah tekanan untuk berkahwin dengan cepat, Magelang Oerip terlibat dengan Rohmah Soebroto, anak perempuan bekas guru Bahasa Melayu dan Jawa Soebroto dan saudara jauh kepada tokoh pembebasan wanita Kartini. Pasangan itu bertunang pada 7 Mei 1926 dan berkahwin pada 30 Jun tahun yang sama.[30][31][32] Juga di Magelang, Oerip mengambil nama bapanya, yang digunakan sebagai nama keluarga untuk berurusan dengan Belanda.[lower-alpha 3] Selepas itu beliau mula merujuk dirinya dengan nama penuh Oerip Soemohardjo, walaupun orang lain terus memanggilnya Oerip.[33]

Setahun selepas perkahwinannya, Oerip dan isterinya ditempatkan di Ambarawa, di mana Oerip telah ditugaskan untuk membina semula unit yang dibubarkan sebelum ini.[33] Walaupun latihan rekrut tempatan di tempat komander Belanda yang masih belum tiba, Oerip telah dinaikkan pangkat kepada kapten.[34] Selepas komander Belanda tiba, dalam Julai 1928 Oerip diberi cuti selama setahun, yang digunakan untuk perjalanan di seluruh Eropah dalam perjalanan melancong dengan isterinya. Sekembalinya ke Hindia, beliau ditempatkan di Meester Cornelis.[35]

Di Meester Cornelis, Oerip mula menjalankan latihan; semasa ditempatkan di Batavia, bapanya meninggal dunia.[34] Pada tahun 1933, beliau telah dihantar ke Padang Panjang, Sumatera untuk menangani kekacauan yang telah membunuh beberapa pegawai Belanda. Masanya di Padang Panjang diluluskan yang tidak diingini, dan pada Julai 1935 beliau telah diberi kebenaran untuk pergi ke Eropah lagi.[36] Beliau juga telah dinaikkan pangkat ke mejar pada masa itu, yang menjadikan beliau pegawai asli tertinggi kedudukan dalam KNIL.[37] Pada tahun berikutnya, setelah kembali ke Hindia, beliau telah ditempatkan di Purworejo.[38] Pada pertengahan tahun 1938, selepas tidak bersetuju dengan pemangku raja tempatan,[lower-alpha 4] Oerip diberitahu untuk memindahkan kepada Gombong; dia menolak, kemudian meninggalkan KNIL dan berpindah ke rumahnya ibu bapa mertua di Yogyakarta.[39][40]